Anh đã xuất hiện trong bộ phim hài Drifters của Channel 4. Anh cũng xuất hiện trong bộ phim hài-chính kịch Channel 4 Derek với vai Tom. Anh đã viết The Catherine Tate Live Show với Catherine Tate và đã viết và biểu diễn bốn chương trình độc lập. Anh đã giành được BIFA 2016 cho Nam diễn viên phụ xuất sắc nhất với vai diễn Brendan trong bộ phim Adult Life Skills.

Năm 2018, Goldstein bắt đầu podcast Films to Be Buried With,[5] với các khách mời nói về những bộ phim quan trọng trong cuộc đời họ.

Nhà sản xuất truyền hình Bill Lawrence đã thuê Goldstein làm biên kịch cho chương trình Apple TV+ năm 2020 Ted Lasso, với sự tham gia của Jason Sudeikis. Viết về chương trình đã dẫn đến việc Goldstein được chọn vào vai cầu thủ bóng đá già Roy Kent.[6] Rolling Stone của Emily Zemler nói rằng "trên thực tế, anh ấy cảm thấy có mối quan hệ họ hàng với anh chàng cứng rắn khắc kỷ này, đến nỗi anh ấy đã gửi email một buổi thử giọng tự ghi hình gồm 5 cảnh cho nhóm sản xuất. Các đoạn băng, trong đó có đoạn 'If Tôi không nghe thấy sự im lặng.[7] Sau đó, anh đã giành được Giải thưởng của Hiệp hội Nhà văn Hoa Kỳ cho Truyền hình: Phim hài tại Giải thưởng Hiệp hội Nhà văn Hoa Kỳ lần thứ 73 và nhận được Giải thưởng Primetime Emmy cho Nam diễn viên phụ xuất sắc trong một loạt phim hài vào năm 2021 cho tác phẩm của anh ấy trong chương trình.[8]

Cùng với biên kịch Will Bridges của Black Mirror, Goldstein đã tạo ra và viết loạt phim tuyển tập 6 phần Soulmate cho AMC, dựa trên bộ phim ngắn For Life năm 2013 của họ.[9][10] Bộ phim được công chiếu trên AMC vào ngày 5 tháng 10 năm 2020.[11][12] Dàn diễn viên bao gồm Sarah Snook, Malin Akerman, Betsy Brandt, J. J. Feild và Charlie Heaton.[13]

Gần đây hơn, Goldstein đã ký một hợp đồng tổng thể kéo dài nhiều năm với Warner Bros. Television.[14]